盛世集团

提交需求
*
*

*
*
*
立即提交
点击”立即提交”  ，表明我理解并同意 《盛世集团科技隐私条款》

logo

    产品与服务
    解决方案
    技术支持
    合作发展
    关于盛世集团
    申请试用
      中国工程院院士云晓春：AI供应链安全挑战及应对思考
      发布时间：2026-09-22 阅读次数： 623 次

      9月14日   ，2026年国家网络安全宣传周“网络安全技术高峰论坛”在山东国际会展中心举行。中关村实验室首席科学家、中国工程院院士云晓春在会上作了《AI的供应链安全形势及挑战》的主题演讲。以下为演讲主要内容。

      尊敬的各位领导  ，各位专家  ，大家上午好。今天主要想跟大家探讨一下AI的供应链安全问题。

      一、AI供应链安全的对象  ，是持续变化的系统行为

      AI供应链安全的对象是持续变化的系统行为。它不但要保证组件可信  ，还要保证过程可信  ，行为可信。传统的清单式供应链治理主要回答了“装了什么”  ，AI供应链治理还必须回答“为何这样行动？何时发生变化？后果是否可控？”

      二、AI供应链覆盖七类相互依赖的资产

      包括数据、模型、软件、算力、平台、工具、服务  ，任何一类资产的来源、更新或权限变化  ，都可能改变最终模型的安全、合规和业务表现。

      三、相比于传统的软件供应链  ，AI供应链多出三类动态风险

      第一是数据风险  ，数据的输入是可塑造整个AI行为的  ，数据的来源、分布、标注、污染等不仅影响了模型质量  ，还可能嵌入偏差、后门与合规风险。第二是模型风险  ，模型的组件具有涌现行为  ，权重、适配器、检索内容这些组合可能会产生不可预期的涌现行为  ，所以我们单独运用单一的版本号来描述供应链是不够的。第三是AI的供应链在运行期仍会发生变化  ，通过策略与供应商更新可在不重新构建应用的情况下改变结果。因此  ，AI的构建不是一次构建  ，一次验收  ，是持续的配置和行为的管理。

      四、高度复用与服务化让依赖关系更深、更隐蔽

      AI的供应链有个非常鲜明的特点  ，是高度复用和服务化的。具体体现在：一是基础模型复用  ，大多数AI应用不会零开始训练  ，往往都是依赖于第三方的基础模型、适配器等。二是开源生态越来越加速  ，模型仓库、数据集和代码包提升创新速度  ，也带来仿冒来源、恶意文件和维护中断风险。三是AI云化、API服务化趋势越来越明显  ，模型、向量数据库、审核、搜索与监控以API交付  ，用户难以看到全部底层组件与变更。四是智能体可组合  ，工具、插件、MCP服务与多智能体形成运行期依赖  ，第三方组件可以影响动作与权限。五是算力与地缘的约束  ，芯片、云区域、网络、能源和出口限制影响容量、可替代性、连续性与数据边界。AI的供应链风险从“软件是否有漏洞”扩展为“关键能力是否透明、可替代  ，可验证”。

      五、供应链攻击通过信任继承进入高价值环境

      跟传统的供应链一样  ，AI供应链的攻击也是通过信任继承的方法进入到高价值环境中  ，当然它的上游入口  ，制品改变  ，合作分发  ，下游执行  ，业务后果都有其独特的特点。上游复用率高、制品难检查、下游权限高、更新自动化、事件跨组织、责任边界模糊等因素放大了攻击的风险。因此  ，对于供应链的攻击防御重点应前移到来源、构建、签名与验收  ，同时保留运行期发现和撤销能力。

      六、部署边界应限制未知制品的执行能力与数据可达性

      在安全部署上  ，因为前面的这种风险和攻击特点  ，部署的边界应该限制未知制品的执行能力和数据的可达性。典型的是要采用隔离加载的方法  ，对于未知或新版本制品先在无敏感数据  ，无外网  ，无长期凭证的环境中解析与试运行。模型服务、智能体工具使用独立工作负载身份与短期凭证  ，不能上来就完全信任它  ，部署前要验证签名、来源、评测、场景、数据级别、地域和批准有效期  ，保留已知安全版本、配置、路由和数据接口  ，支持熔断与供应商切换。

      七、响应目标是识别所有派生制品并阻断继续信任

      针对AI供应链攻击的应急响应一般包括确认、定位、遏制、验证、恢复以及协同六个步骤  ，在应急演练的时候  ，我们必须验证能不能在小时级回答“哪些系统正在使用受影响的组件”。

      八、用透明度、完整性、可替代性和响应速度衡量成熟度

      我们用“一旦出现供应链事件以后所导致的业务中断、数据暴露、错误决策和合规损失是不是持续下降的”衡量响应的效果。是  ，则说明这个响应是有效的  ，如果不是  ，说明这个响应是无效的。  

      九、国内外框架正在把供应链透明度转化为生命周期责任

      我国《生成式人工智能服务管理暂行办法》要求使用合法来源的数据和基础模型；NIST将“价值链与组件集成”列为生成式AI风险；NTIA倡导数据表、模型卡、系统卡和独立评估。AI供应链治理趋势是  ，从原则性“可信”走向组件披露、独立评测、事件报告、变更管理与责任可追溯。

      总的来说  ，AI供应链安全最终要证明“可信依赖能够产生可信结果”。我们需要看见完整链条  ，要绑定可验证的证据  ，随时准备变化与退出。清单让供应链可见  ，来源让制品可信  ，评测让行为可知  ，韧性让依赖可控。

      我今天演讲到此结束  ，谢谢大家！


      信息来源：中国信息安全公众号

      上一条：专家解读 | 严把数据产权登记质量关 服务数据要素市场规范化发展——关于落实全国统一数据产权登记制度的思考
      下一条：公安机关深入开展“护网—2026”专项工作 全力强化网络空间安全；ず妥酆现卫
      盛世集团·(中国大陆)官方网站 免费试用
      盛世集团·(中国大陆)官方网站 服务热线
      盛世集团·(中国大陆)官方网站

      马上咨询

      400-811-3777

      盛世集团·(中国大陆)官方网站 回到顶部
      【网站地图】